當前位置: 華文世界 > 科技

南大通用GBase 8a MPP Cluster數據載入FTP檔伺服器配置介紹

2024-09-05科技

原文連結:南大通用GBase 8a MPP Cluster數據載入FTP檔伺服器配置介紹|GBASE社區|天津南大通用數據技術股份有限公司|GBASE-致力於成為使用者最信賴的數據庫產品供應商
更多精彩內容盡在GBASE社區|天津南大通用數據技術股份有限公司|GBASE-致力於成為使用者最信賴的數據庫產品供應商

GBase 8a MPP Cluster 自V9.5.2.X版本載入功能開始支持從通用數據伺服器拉取數據,支持ftp/http/hdfs/sftp等多種協定,支持kafka集群作為資料來源載入數據。
今天的內容以Red Hat Enterprise Linux 6.2平台為例,先介紹下 FTP檔伺服器的配置方法。

1 FTP伺服器配置

使用vsftp搭建FTP伺服器。

1)檢視是否已安裝vsftpd

# rpm -qa vsftpdvsftpd-2.2.2-6.el6_0.1.x86_64

2)安裝vsftpd

# rpm -ivh vsftpd-2.2.2-6.el6_0.1.x86_64.rpm

3)修改FTP伺服器預設配置

# vim /etc/vsftpd/vsftpd.conf

# 表示允許匿名使用者登入(預設為YES).
anonymous_enable=YES

# 表示允許本地使用者登入(預設為YES).
local_enable=YES

# 表示開放對本地使用者的寫許可權(預設YES,如僅用作載入檔伺服器,可改為NO).
write_enable=NO

# 設定本地使用者的檔生成掩碼(預設對本地使用者的檔生成掩碼是077,可改為022)
local_umask=022

# 允許匿名FTP使用者上載檔(預設為NO).
#anon_upload_enable=YES

# 允許匿名FTP使用者建立目錄(預設為NO).
#anon_mkdir_write_enable=YES

# 啟用FTP數據埠的連線請求(預設為YES).
connect_from_port_20=YES

# 使用PAM認證的配置檔名,檔位於/etc/pam.d目錄下
pam_service_name=vsftpd

# 是否使用userlist檔控制存取FTP伺服器
userlist_enable=YES

# 設定禁止存取的檔或目錄
#deny_file={*.mp3,*.mov,.private}

# 設定隱藏的檔或目錄
#hide_file={*.mp3,.hidden,hide*,h?}

# 設定FTP被動模式開放埠範圍(預設為0,表示任意可用埠)
pasv_min_port=20001
pasv_max_port=21000

# 設定允許的最大客戶連線數(預設為2000)
max_clients=2000

# 設定每個IP上允許的最大客戶連線數(預設為50)
max_per_ip=50

# 用於被動傳輸方式的連線超時(預設為60)
accept_timeout=60

# 用於主動傳輸方式的連線超時(預設為60)
connect_timeout=60

# 無進度狀態下的數據傳輸超時(預設為300)
data_connection_timeout=300

# 空閑連線超時(預設為300)
idle_session_timeout=300

# 是否使用系統呼叫sendfile最佳化傳輸(預設為YES,使用nfs等網絡盤時應設定為NO)
use_sendfile=YES

# 設定非匿名登入使用者的主目錄
#local_root=/var/ftp/pub

更多的配置可檢視vsftpd.conf文件
# man vsftpd.conf

在集群最大並行載入任務數為N,單載入任務最大載入機數(max_data_processors)為M時,部份參數最小值和推薦值如下:

參數名稱

預設值

最小值

推薦值

max_clients

2000

M*N

M*N*2

max_per_ip

50

N

N*2

pasv_min_port

0

max-min : M*N

max-min : M*N*2

4)配置允許或禁止存取FTP伺服器的使用者列表(可跳過)

# vim /etc/vsftpd/user_list

  • 當/etc/vsftpd/vsftpd.conf中配置如下時,禁止/etc/vsftpd/user_list中的所有使用者存取FTP伺服器。
  • userlist_enable=YES
    userlist_deny=YES(缺省為YES)

  • 當/etc/vsftpd/vsftpd.conf中配置如下時,允許/etc/vsftpd/user_list中的所有使用者存取FTP伺服器。
  • userlist_enable=YES
    userlist_deny=NO

    5)配置禁止存取FTP伺服器的使用者列表(可跳過)

    # vim /etc/vsftpd/ftpusers

    6)關閉SELINUX功能或更改其配置(兩種方式二選一即可)

  • 關閉SELINUX功能
  • # vim /etc/selinux/config# This file controls the state of SELinux on the system.# SELINUX= can take one of these three values:# enforcing - SELinux security policy is enforced.# permissive - SELinux prints warnings instead of enforcing.# disabled - No SELinux policy is loaded.SELINUX=disable# SELINUXTYPE= can take one of these two values:# targeted - Targeted processes are protected,# mls - Multi Level Security protection.SELINUXTYPE=targeted

    重新開機或者執行

    # setenforce 0

  • 更改SELINUX配置
  • # setsebool ftp_home_dir 1

    註意:當用瀏覽器存取FTP伺服器遇到「500 OOPS: cannot change directory:/home/...」時,可能為此問題。

    7)關閉或配置防火墻

  • 關閉防火墻
  • 停止防火墻服務

    # service iptables stopiptables:清除防火墻規則: [確定]iptables:將鏈設定為政策 ACCEPT:filter [確定]iptables:正在解除安裝模組: [確定]

    檢視防火墻是否在開機時自動啟動

    # chkconfig --list iptablesiptables 0:關閉 1:關閉 2:啟用 3:啟用 4:啟用 5:啟用 6:關閉

    禁止防火墻在開機時自動啟動

    # chkconfig iptables off

    # chkconfig iptables off --level 2345

    設定後防火墻在開機時自動啟動狀態

    # chkconfig --list iptablesiptables 0:關閉 1:關閉 2:關閉 3:關閉 4:關閉 5:關閉 6:關閉

  • 配置防火墻
  • 設定預設規則

    # iptables -A INPUT -j DROP

    註:添加上條規則會阻止未處理的傳入封包,如在此規則之前未添加允許規則將會阻止遠端連線

    # iptables -A FORWARD -j ACCEPT

    開放FTP埠

    # iptables -I INPUT -p tcp --dport 21 -j ACCEPT# iptables -I OUTPUT -p tcp --sport 21 -j ACCEPT# iptables -I INPUT -p tcp --dport 20 -j ACCEPT# iptables -I OUTPUT -p tcp --sport 20 -j ACCEPT# iptables -I INPUT -p tcp --dport 20001:21000 -j ACCEPT# iptables -I OUTPUT -p tcp --sport 20001:21000 -j ACCEPT

    保存防火墻設定

    # iptables-save > /etc/sysconfig/iptables

    8)啟動vsftpd服務並設定為開機啟動項

    # service vsftpd start為 vsftpd 啟動 vsftpd: [確定]# chkconfig vsftpd on

    9)復制檔到FTP目錄

  • 如未設定local_root=/var/ftp/pub時,復制檔到/home/xxxx(使用者的home目錄)
  • 如已設定local_root=/var/ftp/pub時,復制檔到/var/ftp/pub
  • 如已設定anonymous_enable=YES時,復制檔到/var/ftp或/var/ftp/pub(匿名登入的主目錄)
  • 以上就是今天的內容,感謝大家閱讀!

    原文連結:南大通用GBase 8a MPP Cluster數據載入FTP檔伺服器配置介紹|GBASE社區|天津南大通用數據技術股份有限公司|GBASE-致力於成為使用者最信賴的數據庫產品供應商
    更多精彩內容盡在GBASE社區|天津南大通用數據技術股份有限公司|GBASE-致力於成為使用者最信賴的數據庫產品供應商